Tổ tiên của Khước Khắc vốn gốc họ Cơ, thuộc dòng dõi công thất nước Tấn, đến đời Thúc Hổ có công nên được phong ấp ở đất Khước, lấy họ Khước làm họ. Đến đời Khước Nhuế phò giúp Tấn Huệ công, khi Tấn Văn công về nước, Khước Nhuế cùng Lã Sảnh mưu giết Tấn Văn công nên bị sát hại. Tuy nhiên Văn công vẫn cho con Khước Nhuế là Khước Khuyết lên nối chức đại phu.

Năm 597 TCN, Khước Khuyết qua đời, Khước Khắc lên nối chức đại phu, được phong làm Thượng quân tá.